A OpenAI demonstrou recentemente uma abordagem mais proativa para testes de equipe vermelha na área de segurança de IA, superando seus concorrentes, especialmente nas áreas cruciais de aprendizado por reforço de múltiplas etapas e testes de equipe vermelha externos. Duas publicações da empresa estabelecem novos padrões do setor para melhorar a qualidade, confiabilidade e segurança dos modelos de IA. O primeiro artigo, intitulado "Metodologia de testes de equipe vermelha externa de modelos e sistemas de IA da OpenAI", destaca a eficácia de equipes externas especializadas na descoberta de vulnerabilidades de segurança que os testes internos podem perder. Essas equipes externas são compostas por especialistas em...